人工智能、深度假货和虚假信息
· 科技 ·
本文回顾了这些基于人工智能的虚假信息工具的技术和能力，主要探讨了计算机科学和人工智能(AI)的进步为传播虚假信息带来了一种新的、非常引人注目的方法。
计算机科学和人工智能(AI)的进步为传播虚假信息带来了一种新的、非常引人注目的方法：深度伪造。深度伪造视频是综合改变的镜头，其中描绘的脸或身体已经被数字修改，以显示为某人或其他东西。这些视频变得越来越逼真，许多人担心这项技术将大幅增加国内外虚假信息的威胁。深度假货和相关的人工智能生成的虚假内容是在广泛的国际社会非常脆弱的时候出现的。在对事实的评价和对事实与数据的分析解释方面日益增加的分歧；观点与事实之间界限的模糊；意见和个人经验对事实的相对数量的增加，以及由此产生的影响；以及对以前受人尊敬的事实信息来源的信任下降。这些趋势，如果继续下去，表明深度假货将越来越多地找到高度敏感的受众。
各种人工智能技术已经成熟，可以用于虚假信息活动。深度伪造视频（deepfake）是一个明显的威胁，但语音克隆、深度伪造图像也值得关注。
deepfake视频包括综合修改的镜头，显示受试者的脸或身体的变化。这些合成视频图像是通过生成对抗网络生成的。随着每一次迭代，视频的质量变得越来越逼真，合成的成分越来越难以用肉眼检测。
语音克隆是深度假货使用的另一种方式。各种在线和电话应用程序，如名人语音克隆（Hobantay）和Voicer Farning AI变声器（Voloshchuk），允许用户模仿流行名人的声音。恶意使用这类服务的例子已经存在。
深度伪造的图像也令人担忧。Deepfake图像最常见的形式是大头照，看起来非常人性化和逼真。这些图像很容易通过某些网站访问，深度伪造的图像也越来越多地被用作虚假社交媒体账户的一部分。
深度假货和其他形式的人工智能生成内容有什么风险？答案只受一个人想象力的限制。鉴于社会对视频片段的信任程度，以及此类片段无限制的应用，不难想象深度假货不仅会影响社会，还会影响国家安全的许多方式。
鉴于深度假货似乎不可避免地崛起，如何减轻对信息完整性的威胁？
正在受到一些关注的方法是探测、来源、监管举措、开放源情报技术和新闻方法以及媒体扫盲。
缓解深度造假兴起的一个主要方法是开发和实现能够检测深度造假视频的自动化系统。
另一种应对深度假货相关风险的方法是通过监管和创建刑事法规。
根据对技术和相关问题的简要回顾，提出了五个支持性建议。
首先，深度假货的对抗性使用将涉及一个权衡机会、利益和风险的分解演算，这种决策可以通过战争游戏来建模和其他练习。
其次，政府、研究界、社交媒体平台和其他私人利益相关者继续投资并采取其他措施加强检测技术将很重要。
第三，媒介素养的努力应继续加快,必须扩大采用以种源为基础的办法。